Lâm Vũ sinh tháng 02 năm 1962, quê quán tại huyện Mân Hầu, tỉnh lỵ Phúc Châu, tỉnh Phúc Kiến.

Vào tháng 10 năm 1978, khi mới 16 tuổi, ông bắt đầu học chuyên ngành luyện thép tại Viện Luyện kim Giang Tây (nay là Đại học Khoa học và Công nghệ Giang Tây), tốt nghiệp Cử nhân năm 1982. Vào tháng 01 năm 1987, ông kết nạp Đảng Cộng sản Trung Quốc. Từ tháng 03 năm 2006 đến tháng 01 năm 2007, ông tham gia Khóa đào tạo một năm dành cho cán bộ trẻ và trung niên tại Trường Đảng Trung ương Đảng Cộng sản Trung Quốc. Trong suốt thời gian từ tháng 09 năm 2002 đến tháng 06 năm 2010, ông bán thời gian tham gia Nghiên cứu sau đại học tại Khoa học Vật liệu, Viện Luyện kim tại Đại học Trung Nam rồi trở thành Tiến sĩ Kỹ thuật. Từ tháng 09 năm 2013 đến tháng 01 năm 2014, ông tham gia Khóa đào tạo cán bộ trung niên tại Trường Đảng Trung ương Đảng Cộng sản Trung Quốc, một khóa đào tạo giành cho cán bộ chiến lược tại các tỉnh.